Tuấn là hậu duệ của Trương Cửu Cao, em trai danh thần Trương Cửu Linh nhà Đường, dòng dõi Lưu hầu Trương Lương nhà Tây Hán. Cha là Trương Hàm, năm Nguyên Phong thứ 2 (1079) đỗ tiến sĩ, từng nhậm các chức thuộc quan của châu huyện; năm Thiệu Thánh đầu tiên (1094), triều đình cất nhắc 2 khoa Hiền, Lương, được thụ Kiếm Nam, Tây Xuyên tiết độ phán quan.

Trương Tuấn mồ côi từ năm lên 4, hành vi đoan chính, không hề dối trá, người hiểu chuyện đều cho rằng ông sẽ làm nên nghiệp lớn. Được chừng 20 tuổi, ông vào Thái Học (còn gọi là Quốc Tử Học). Năm Chánh Hòa thứ 8 (1118), đỗ Tiến sĩ. Đầu những năm Tĩnh Khang (1125 -1127), làm đến Thái Thường tự chủ bộ.